Recovering Reliable Supervision via Critique-Guided On-Policy Distillation
CriticOPD：用批评引导重写恢复在线策略蒸馏的可靠监督
🧭 On-policy distillation 可靠监督恢复 ★ 深度解读
Brigham Young University · University of North Carolina at Chapel Hill
教师先批判错误，学生从最后错误处重写；教师带批判评分、学生无批判训练，显著提升数学推理蒸馏效果。
📌 工作参考价值（4 点）
- 在电商/Agent 的生成式策略蒸馏中，不要直接对错误的学生轨迹做 token 级教师监督；先让强模型批判错误，截断到最后一个错误后重写，只蒸馏重写 suffix，可避免教师跟错，并保持学生轨迹覆盖。
- 把 critique/reference answer 当 privileged context：教师评分时可见，学生训练和上线都不可见，因此能利用更强反馈而不增加推理时延或 prompt 长度；适合有可验证结果的任务，如 query 改写是否召回商品、结构化生成是否符合 schema、生成代码单测。
- 若业务没有 reference answer，可用 reward model、人工反馈或转化标签替代，但批判质量决定收益；论文显示 73–81% 的 valid error flags 即可带来显著提升。
- 选择“只监督重写后缀、保留错误前缀”的做法，比提前截断或教师接管更接近推理分布；在在线学习或 agent 轨迹蒸馏时可作为降低 occupancy mismatch 的工程原则。